Berdirinya UIN Sumatera Utara atau sebelumnya Institut Agama Islam Negeri (IAIN) di Indonesia berlandaskan pada Peraturan Presiden Nomor 11 Tahun 1960 tanggal 9 Mei 1960 di Yogyakarta dengan nama Al-Jami;ah Al-Islamiyah Al-Hukumiyah. Perwujudan IAIN merupakan gabungan dari Perguruan Tinggi Agama Islam Negeri (PTAIN) Yogyakarta dan Akademi Dinas Ilmu Agama (ADIA) yang berkedudukan di Jakarta.

IAIN Sumatera Utara yang didirikan pada tahun 1973 di Medan, dilatar belakangi dan didukung oleh beberapa faktor pertimbangan objektif. Pertama, Perguruan Tinggi Islam yang berstatus Negeri pada saat itu belum ada di Provinsi Sumatera Utara, walaupun Perguruan Tinggi Agama Islam Swasta memang sudah ada. Kedua, pertumbuhan pesantren, madrasah dan perguruan-perguruan agama yang sederajat dengan SLTA di daerah Sumatera Utara tumbuh dan berkembang dengan pesatnya, yang sudah tentu memerlukan adanya pendidikan lanjutan yang sesuai, yakni adanya Perguruan Tinggi Agama Islam yang berstatus Negeri.